IBM在watsonx平台上新增開源的Mistral AI模型，擴展企業級人工智能解決方案。據指，Mistral AI的Mixtral-8x7B模型在處理速度和效率上的顯著優化，而受市場關注，尤其是它通過量化過程將延遲時間最多縮短75%，提高了吞吐量50%。
新技術不僅能加快獲取洞察的速度，還有助於降低成本和能耗。據悉，通過提供Mixtral-8x7B和其他模型，IBM watsonx為AI建構者和業務領導者提供強大生態系統的平台，促進不同行業和領域的創新。Mixtral-8x7B是一個結合稀疏建模和專家混合技術的模型，提高模型的效率，還能夠快速處理和分析海量數據，提供與上下文相關的見解。
除了Mistral AI的模型，IBM還在Watsonx平台上提供了來自ELYZA公司的日本LLM模型ELYZA-japanese-Llama-2-7b，以及Meta的開源模型Llama-2-13B-chat和Llama-2-70B-chat等第三方模型，未來還將推出更多模型。IBM指出，IBM的watsonx平台不僅提供一個企業就緒的AI開發平台，還提供數據存儲和治理功能，這對於客戶來說是一個巨大的價值。
Source：IBM